Mendeleev sinh tại làng Verhnie Aremzyani, gần Tobolsk, là con của Ivan Pavlovich Mendeleev và Maria Dmitrievna Mendeleeva (tên khi sinh Kornilieva). Ông nội là Pavel Maximovich Sokolov, một linh mục thuộc Giáo hội Chính thống giáo Nga từ vùng Tver.[1] Ivan, cùng với các anh chị em, đã có tên họ mới khi tham gia chủng viện thần học.[2]

Mendeleev được cho là con út trong số 14 anh chị em, nhưng con số chính xác khác biệt tuỳ theo từng nguồn tin.[3] Khi 13 tuổi, sau khi cha ông qua đời và nhà máy của mẹ bị phá huỷ bởi hoả hoạn, Mendeleev theo học trung học tại Tobolsk.

Năm 1850, khi ấy gia đình Mendeleev đã nghèo túng chuyển tới Saint Petersburg, nơi ông vào Viện Sư phạm Main năm 1850. Sau khi tốt nghiệp, bệnh lao khiến ông phải chuyển tới Bán đảo Krym ở bờ biển phía bắc của Hắc Hải năm 1855. Tại đây ông trở thành một giáo viên khoa học tại Trường trung học số 1 Simferopol. Ông trở lại Saint Petersburg với sức khoẻ đã phục hồi hoàn toàn năm 1857.